ディープフェイクとは？生成AIで起きる偽装技術と悪用リスク

ディープフェイクとは、生成AIを用いて人物の顔や声、映像を本物のように合成する技術です。
近年は誰でも簡単に扱えるツールが増え、悪意のあるなりすましや偽情報の拡散に使われるケースも問題視されています。

一見すると高度な技術犯罪に思えますが、仕組みを正しく理解することで、
「何がディープフェイクで、どこまでが事実なのか」を冷静に見極める視点を持つことができます。

本記事では、ディープフェイクの基本的な仕組みや生成AIとの関係、悪用されやすい場面を整理し、
被害記事とは切り分けた形で知識として押さえておくべきポイントを解説します。

ディープフェイクとは、生成AIを用いて、画像・動画・音声などを学習・合成し、本物と区別がつきにくいデータを作り出す技術を指します。

名称は、AIの学習手法である「ディープラーニング（深層学習）」と、「偽物」を意味する「フェイク」を組み合わせた造語です。

これまでも画像や音声の合成技術は存在していましたが、従来の手法では違和感が残り、合成だと見抜けるケースがほとんどでした。

一方、ディープフェイクでは大量のデータを学習させることで、表情・声の癖・話し方まで再現できるため、専門知識がなければ見分けがつかないレベルに達しています。

その結果、現実には存在しない映像や発言を、あたかも事実のように見せることが可能となり、情報の真偽を見極めることが難しくなっています。

ディープフェイク技術の急速な発展を支えているのが、近年急激に進化した生成AI（Generative AI）です。

生成AIとは、過去の大量データを学習し、文章・画像・音声・動画などを新たに「生成」するAI技術を指します。

ディープフェイクは、この生成AIの仕組みを応用し、特定の人物の顔・声・話し方・表情の癖を学習させることで成立します。

生成AIは、学習するデータが多いほど精度が高まります。

SNSや動画サイトに公開されている顔写真・動画・音声は、AIにとって非常に学習しやすい素材となります。

その結果、本人が意図していなくても、公開情報だけで高精度な偽映像や偽音声が作成される状況が生まれています。

かつては専門的な知識と高性能な設備が必要だった合成技術も、現在では生成AIツールの普及により、一般レベルでも扱える環境が整いつつあります。

この変化により、ディープフェイクは一部の専門家だけの技術ではなく、悪意を持った第三者にも利用されやすい技術となりました。

生成AIとディープフェイクの関係を理解することは、情報の真偽を見極めるうえで重要な視点となります。

リベンジポルノは、元恋人や元配偶者が公開する性的な画像・動画です。

別れた相手につのらせた恨みを晴らすため、関係があった際に撮影した性的な画像・動画を公開する狙いがあります。

しかし、対象人物の顔写真さえあれば、既存のアダルトコンテンツに顔を合成することでリベンジポルノが作成できてしまいます。

もちろんちゃんと解析すれば偽物の画像・動画とわかるのですが、事実解明までの精神的苦痛は計り知れません。

ディープフェイクによって作られたアダルトコンテンツは「フェイクポルノ」と呼ばれ、芸能人も被害の対象になっています。

ディープフェイクによって、特定人物の社会的信用を毀損させようとする人も現れるでしょう。

精細な合成技術によって、対象の人物を本当はいなかった場所にいたかのようにすることができます。

これにより、ある人物を反社会的勢力と関わりがあるように工作したり、浮気・不倫関係にあると勘違いさせることも可能です。

合成であることを明らかにするまで風評被害に悩まされるため、深刻な問題になり得ます。

ディープフェイクによって虚偽の情報を作られても、本人にはその事実がないことを当然知っています。

しかし、情報に触れる人は必ずしもそうではありません。

例えディープフェイクによって作られた嘘であっても、巧妙に作られると信じてしまう人も現れます。

そしてSNSなどで興味本位で情報を拡散してしまい、虚偽の事実が広まることになるのです。

その結果、世間からやってもないことを事実とされて責められる場合も。

バッシングによる精神的苦痛は計り知れず、深刻な精神的負担が長期化し、日常生活に支障をきたすケースも報告されています。

ディープフェイクによる精神的苦痛に対するケアは急務です。

世界では、既にディープフェイクが詐欺などの犯罪で使われる事例が発生しています。

中国では、友人をかたる人物からのビデオ電話を受けて8500万円を送金するも、送金先は別の人物だったという詐欺事件が起きました。

この時ビデオ通話で使われた顔は、ディープフェイク技術を使って巧妙に偽装されたものでした。

また、アメリカでは音声のディープフェイクによるオレオレ詐欺事件が増加し、総被害額も約15億円にのぼると言われています。

また、ディープフェイクを利用して個人情報を引き出そうとするソーシャルエンジニアリングの被害も懸念されます。

こうした手口は今後日本国内にも持ち込まれる可能性が高いため、例え気心知れた相手からの連絡でもお金絡みの話には慎重に対応しましょう。

ディープフェイク被害が公になったのは、芸能人や政治家のディープフェイクが横行し始めたためです。

特に政治家に偽装した動画は世間に誤ったメッセージを広めることが懸念されます。

例えば、ウクライナのゼレンスキー大統領がウクライナの軍隊に投降を呼びかけるディープフェイク動画があります。

一見本当に本人が話しているような自然な顔の動きですが、ところどころ不自然な部分も見られます。

また、こちらのアメリカ元大統領のオバマ氏の動画もディープフェイクです。

これほどに高精度な動画を作られると、一見して偽物と見破ることは困難に思えるでしょう。

また、芸能人のフェイクポルノ問題もディープフェイクによって深刻化しています。

最近では、ディープフェイクを作れるスマートフォンのアプリも公開されています。

元となる素材を取り込めば、顔の合成画像だけでなく動画も作成可能です。

こうしたディープフェイクアプリの普及はエンターテインメント的側面もあるでしょう。

しかし、犯罪に悪用される可能性が高い現状だと、悪質なCG合成を蔓延させることになりかねません。

また、一般人のディープフェイク被害を増加させる可能性も懸念されます。

ディープフェイクの作成には、もはや特別な技術や大がかりな機材などは必要ありません。

その脅威はすぐそばにまで迫っていると捉えていいでしょう。

悪質なCG合成を蔓延させることになりかねません。
具体的には、本人の知らないところで顔写真や動画が切り取られ、性的・侮辱的な文脈に使われるケースも報告されています。

上記したゼレンスキー大統領のディープフェイク動画をもう一度見てみましょう。

こちらの動画では、顔の動きに対して不自然なほど体が動いていないことがわかります。

演説では身振り手振りがある程度混ざるものですが、これほど微動だにしないのは違和感を覚えます。

また、顔も同じ動きを繰り返しているように見える上に、頭部が背景から浮いているような印象も。

こういった不自然で違和感のある箇所を見分けることで、ディープフェイクかどうか見分けることが可能です。

ディープフェイクを見破るためのAI技術は、現在開発が進行中です。

東京大学の研究チームは、元素材との合成時に発生する不整合な部分を解析することで、ディープフェイクかどうか判別する技術を開発しています。

この東京大学の解析技術は、世界最高水準を獲得するほどに高精度です。

（参考：東京大学がディープフェイクの検出で世界最高性能を達成 AIでわずかな不整合を高精度に判定 | Ledge.ai）

また、ニューヨーク州立大学バッファロー校の研究チームも、瞳の光の反射からディープフェイクか見分ける方法を研究中です。

（参考：[2009.11924] Exposing GAN-generated Faces Using Inconsistent Corneal Specular Highlights）

ディープフェイクに対抗する技術も、日進月歩で発展しています。

しかし、こうした解析をかいくぐるためにディープフェイクも進化しており、いたちごっこの様相を呈しています。

従来のCG合成は画像だと高いクオリティが出せましたが、動画の合成はどうしても合成したとすぐに看破できるものばかりでした。

そのため、動画は決定的な証拠として扱われてきました。

しかし、ディープフェイクにより人物の顔・動きまで高いクオリティでの合成が可能となったのです。

まるで本当に起きたことのように自然な動きも、CG合成で再現可能となりました。

その結果、動画の証拠としての信頼性を揺るがさんとしている現状です。

しかし、逆にディープフェイク対策の技術も進歩しているため、見破ることも容易になっていくでしょう。

音声の合成技術もこれまで存在していましたが、音声の切り貼りはどうしても編集の切れ目が生まれてしまうため、編集したと見破るのも簡単でした。

しかし、ディープフェイクによって切れ目のない自然な音声が作れるため、既存の音声を切り貼りしただけでも本当にあった会話・発言のように工作できます。

それだけでなく、元となる音声データさえあれば特定の人物の発言を創作することも可能です。

例えば、2019年の紅白歌合戦では美空ひばりさんの歌声を再現した「AI美空ひばり」が話題になりました。

このような高品質の再現技術も、ディープフェイクとして悪用できてしまいます。

これまで現実の風景、いわゆる三次元の世界を一から作り出し、違和感なく表現することは難しいとされてきました。

しかし、合成技術の発達により三次元の画像を一般人でも手軽に作り出せるようになったのです。

最近は生成AIを一般人でも手軽に使えるサービスが普及しつつあり、実在しない人物を誰もが気軽に作成可能になりました。

また、独自に作った人物像なので著作権・肖像権の問題も発生しないメリットがあります。

まだまだ合成で作成したと感じられる違和感はあるものの、それも今後の技術の進歩で解消されていくでしょう。

今後オリジナル人物モデルの作成がさらに普及していけば、写真モデルという職業にも影響が出るかもしれません。

ディープフェイクによってオリジナル人物モデルの作成だけでなく、実在する人物と瓜二つのモデルも作成が可能です。

人物の顔の特徴だけでなく表情の変化も記録しておけば、その人物のあらゆる表情が表現できます。

既に株式会社サイバーエージェントが、モデルの冨永愛さんと瓜二つのデジタルモデルを作成し、広告に起用する取り組みを進行中です。

さらに技術が進めば、一般人でも実在人物のモデルは気軽に作成できるようになるでしょう。

しかし、著作権・肖像権の問題がクリアできていないため、むやみやたらな作成はリスクが高いといえます。

ディープフェイクは見た目や音声の完成度が高いため、一般の方が真偽を判断することが難しいケースも少なくありません。

特に、発信元が匿名であったり、複数のサイトやSNSに拡散されている場合、個人での調査や対応には限界が生じやすくなります。

こうした状況では、ネットリサーチや技術的解析を通じて、情報の出どころや拡散経路を整理する必要が出てくることもあります。

当探偵事務所では、ディープフェイクを含むサイバー領域の調査に対応し、発信状況の把握や証拠整理のサポートを行なっています。

状況によっては、専門家や弁護士と連携しながら、今後の対応方針を整理することも可能です。

「これは放置していいのか」「どこまで調べるべきか」

判断に迷う段階でも、情報整理の相談先としてご利用いただけます。

ご相談は24時間365日受け付けていますので、必要を感じたタイミングでご連絡ください。